SIA: Self Improving AI with Harness & Weight Updates
SIA:通过支架与权重联合更新的自改进AI
🧭 Agent 自改进与测试时训练 ★ 深度解读
Hexo Labs · University of Oxford
提出反馈智能体同时更新任务智能体的支架(提示、工具)和模型权重(LoRA)的联合自改进循环,在三个领域全面超越纯支架迭代
📌 工作参考价值(4 点)
- 1. 在Agent开发中可引入「反馈智能体」动态选择改进动作:当纯提示/工具优化(支架更新)收益停滞时,自动触发模型权重微调(RL训练),实现支架与模型权重的协同进化。
- 2. 对商品分类、法律条款匹配等细粒度分类场景,可直接套用「支架迭代到权重更新」的模式:先用支架优化解析、重排逻辑,再用GRPO按组优势进行LoRA微调,可显著提升准确率(如从50%到70%)。
- 3. 针对GPU算子优化、超参调优等探索性任务,可借鉴「支架探索+权重内化」思路:支架负责搜索空间构建和编译/运行反馈解析,权重通过强化学习内化领域设计模式,获得超越人工调参的性能。
- 4. 工程上,反馈智能体根据奖励密度自动选择训练算法(PPO/GRPO/entropic weighting/DPO等)的设计,可直接复用为动态训练策略选择器,降低RL训练调参成本。